VMware vSphere Bitfusion 可虚拟化硬件加速器（例如图形处理单元 (GPU)），以提供可通过网络访问的共享资源池，从而支持人工智能 (AI) 和机器学习 (ML) 工作负载。

vSphere Bitfusion 采用客户端-服务器架构。该产品允许多个客户端虚拟机 (VM) 运行人工智能 (AI) 和机器学习 (ML) 应用程序，以便在运行 vSphere Bitfusion 服务器软件的虚拟机上共享对远程 GPU 的访问。您可以在 vSphere Bitfusion 客户端计算机上运行应用程序，而提供加速的 GPU 则安装在网络中的 vSphere Bitfusion 服务器计算机上。应用程序可以打开文件、分配内存并调用 CUDA，就像在具有本地 GPU 的计算机上运行一样。

下图是一个小型 vSphere Bitfusion 集群的示例，例如一组 vSphere Bitfusion 服务器-客户端计算机和交换网络中的 vCenter Server。最小 vSphere Bitfusion 集群配置为一个客户端、一个服务器和一个 vCenter Server。可以创建具有多个服务器和客户端的大型集群。

在 vSphere Bitfusion 客户端上启动 AI 或 ML 应用程序时，vSphere Bitfusion 会拦截应用程序的 CUDA 调用并查看调用的数据和数据指针。vSphere Bitfusion 服务器不需要连接到保存应用程序数据的存储，只需要连接到 vSphere Bitfusion 客户端。客户端会将数据和其余的 CUDA 调用传输至服务器。vSphere Bitfusion 服务器将处理调用，并将结果返回给客户端。

在 vSphere Bitfusion 中启动 AI 和 ML 应用程序时，可以共享 GPU 资源。

应用程序可以共享未安装在本地计算机上的 GPU 资源，您可以在合适的环境中，在已配置的 vSphere Bitfusion 客户端（如虚拟机、裸机计算机或容器）上运行每个应用程序。应用程序将消耗网络上 vSphere Bitfusion 服务器池中的 GPU 加速服务，但仅在应用程序或会话运行期间消耗资源。在应用程序或会话完成后，GPU 将返回到池。

物理 GPU 的内存可分为任意大小的部分。每个部分可以同时分配给不同的应用程序。vSphere Bitfusion 使用介入技术执行共享。vSphere Bitfusion 会截获通常寻址本地加速器（在 PCIe 主机总线上）的 API 调用，并通过网络发送 API 调用及相关数据。vSphere Bitfusion 为 AI 和 ML 应用程序提供共享服务，并支持 CUDA API 将 NVIDIA GPU 作为目标。

要了解有关 vSphere Bitfusion 的更多信息，请参见 The Cloud Platform Tech Zone 中的常见问题解答 (FAQ) 部分。